#real-time response

3小时前

小龙虾工具经验分享今天本来准备给我的小龙虾聊天工具加一个思考的过程，避免思考过久，用户以为小龙虾死了调试了很久，才发现，AI模型会发送 thinking 的 stream 出来，小龙虾的 Chat History 也持续在记录 thinking 的 stream ，唯独最新的思考那一个 real-time response 不转发 AI 模型的消息流这样就就导致一个悲剧的情况，本来我开发 “思考过程” 的功能就是为了让用户看最新的AI回复进展，最后反而是历史记录都有思考过程，最新的回复没有 🤣 我问小龙虾你错哪儿了？它委屈巴巴的说，那是它的bug，还说帮我准备一份详细的bug反馈表单，哈哈哈哈

#小龙虾工具 #AI模型 #思考过程 #real-time response #Chat History